{
  "nbformat": 4,
  "nbformat_minor": 0,
  "metadata": {
    "colab": {
      "name": "3.14. 正向传播、反向传播和计算图.ipynb",
      "provenance": [],
      "collapsed_sections": [],
      "include_colab_link": true
    },
    "kernelspec": {
      "name": "python3",
      "display_name": "Python 3"
    }
  },
  "cells": [
    {
      "cell_type": "markdown",
      "metadata": {
        "id": "view-in-github",
        "colab_type": "text"
      },
      "source": [
        "<a href=\"https://colab.research.google.com/github/chongzicbo/Dive-into-Deep-Learning-tf.keras/blob/master/3.14.%20%E6%AD%A3%E5%90%91%E4%BC%A0%E6%92%AD%E3%80%81%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD%E5%92%8C%E8%AE%A1%E7%AE%97%E5%9B%BE.ipynb\" target=\"_parent\"><img src=\"https://colab.research.google.com/assets/colab-badge.svg\" alt=\"Open In Colab\"/></a>"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {
        "id": "Z6DrO5YxDHXG",
        "colab_type": "text"
      },
      "source": [
        "##3.14. 正向传播、反向传播和计算图\n",
        "&emsp;&emsp;前面几节里我们使用了小批量随机梯度下降的优化算法来训练模型。在实现中，我们只提供了模型的正向传播（forward propagation）的计算，即对输入计算模型输出，然后通过tf.tf.GradientTape API来调用系统自动生成的backward函数计算梯度。基于反向传播（back-propagation）算法的自动求梯度极大简化了深度学习模型训练算法的实现。本节我们将使用数学和计算图（computational graph）两个方式来描述正向传播和反向传播。具体来说，我们将以带 $L_2$ 范数正则化的含单隐藏层的多层感知机为样例模型解释正向传播和反向传播。\n",
        "\n",
        "### 3.14.1. 正向传播\n",
        "&emsp;&emsp;正向传播是指对神经网络沿着从输入层到输出层的顺序，依次计算并存储模型的中间变量（包括输出）。为简单起见，假设输入是一个特征为$x \\in R^d$的样本，且不考虑偏差项，那么中间变量:\n",
        "$$\n",
        "z=W^{(1)}x,\n",
        "$$\n",
        "&emsp;&emsp;其中，$W^{(1)} \\in R ^{h \\times d}$是隐藏层的权重参数。把中间变量$z \\in R^h$输入按元素运算的激活函数 $\\phi$后，将得到向量长度为h的隐藏层变量\n",
        "$$\n",
        "h=\\phi(z).\n",
        "$$\n",
        "&emsp;&emsp;隐藏层变量$h$也是一个中间变量。假设输出层参数只有权重$W^{(2)} \\in R^{q \\times h}$,\n",
        "可以得到向量长度为q的输出层变量\n",
        "$$\n",
        "o=W^{(2)}h.\n",
        "$$\n",
        "&emsp;&emsp;假设损失函数为$\\ell$,且样本标签为y,可以计算出单个数据样本的损失项\n",
        "$$\n",
        "L=\\ell(o,y).\n",
        "$$\n",
        "&emsp;&emsp;根据$L_2$范数正则化的定义，给定超参数$\\lambda$,正则化项即\n",
        "$$\n",
        "s=\\frac{\\lambda}{2}(||W^{(1)}||_F^2+||W^{(2)}||_F^2),\n",
        "$$\n",
        "&emsp;&emsp;其中矩阵的Frobenius范数等价于将矩阵扁平为向量后计算$L_2$范数。最终，模型在给定的数据样本上带正则化的损失为\n",
        "$$\n",
        "J=L+s.\n",
        "$$\n",
        "&emsp;&emsp;我们将$J$称为有关给定数据样本的目标函数，并在以下的讨论中简称目标函数。\n",
        "\n",
        "###3.14.2. 正向传播的计算图\n",
        "&emsp;&emsp;我们通常绘制计算图来可视化运算符和变量在计算中的依赖关系。图3.6绘制了本节中样例模型正向传播的计算图，其中左下角是输入，右上角是输出。可以看到，途中箭头方向大多是向右和向上，其中方框代表变量，圆圈代表运算符，箭头表示从输入到输出之间的依赖关系。\n",
        "<div align=center><img src=\"https://zh.gluon.ai/_images/forward.svg\" width=\"300\"/></div>\n",
        "<center>图3.6 正向传播的计算图</center>\n",
        "\n",
        "\n",
        "###3.14.3. 反向传播\n",
        "&emsp;&emsp;反向传播指的是计算神经网络参数梯度的方法。总的来说，反向传播依据微积分中的链式法则，沿着从输出层到输入层的顺序，依次计算并存储目标函数有关神经网络各层中间变量以及参数的梯度。对输入或输出$X,Y,Z$为任意形状的函数$Y=f(X)$和$Z=g(Y)$,通过链式法则，我们有\n",
        "$$\n",
        "\\frac{\\partial Z}{\\partial X}=prod(\\frac{\\partial Z}{\\partial Y},\\frac{\\partial Y}{\\partial X})\n",
        "$$\n",
        "&emsp;&emsp;其中prod运算符根据两个输入的形状，在必要的操作(如转置和互换输入位置)后对两个输入做乘法。回顾一下本节中样例模型，它的参数是$W^{(1)}$和$W^{(2)}$,因此反向传播的目标是计算$\\partial J / \\partial W^{(1)}$和$\\partial J / \\partial W^{(2)}$。我们将应用链式法则依次计算各中间变量和参数的梯度，其计算次序与前向传播中相应中间变量的计算次序恰恰相反。首先，分别计算目标函数$J=L+s$有关损失项$L$和正则项$s$的梯度\n",
        "$$\n",
        "\\frac {\\partial J} {\\partial L}=1,\\frac {\\partial J} {\\partial s}=1\n",
        "$$\n",
        "&emsp;&emsp;其次，依据链式法则计算目标函数有关输出层变量的梯度$\\partial J / \\partial o \\in R^q$:\n",
        "$$\n",
        "\\frac {\\partial J}{\\partial o}=prod(\\frac{\\partial J}{\\partial L},\\frac{\\partial L}{\\partial O})=\\frac{\\partial L}{\\partial O}.\n",
        "$$\n",
        "&emsp;&emsp;接下来，计算正则项有关两个参数的梯度：\n",
        "$$\n",
        "\\frac{\\partial s}{\\partial \\boldsymbol{W}^{(1)}} = \\lambda \\boldsymbol{W}^{(1)},\\quad\\frac{\\partial s}{\\partial \\boldsymbol{W}^{(2)}} = \\lambda \\boldsymbol{W}^{(2)}.\n",
        "$$\n",
        "&emsp;&emsp;现在，我们可以计算最靠近输出层的模型参数的梯度$\\partial J/\\partial \\boldsymbol{W}^{(2)} \\in \\mathbb{R}^{q \\times h}$。依据链式法则，得到\n",
        "$$\n",
        "\\frac{\\partial J}{\\partial \\boldsymbol{W}^{(2)}}\n",
        "= \\text{prod}\\left(\\frac{\\partial J}{\\partial \\boldsymbol{o}}, \\frac{\\partial \\boldsymbol{o}}{\\partial \\boldsymbol{W}^{(2)}}\\right) + \\text{prod}\\left(\\frac{\\partial J}{\\partial s}, \\frac{\\partial s}{\\partial \\boldsymbol{W}^{(2)}}\\right)\n",
        "= \\frac{\\partial J}{\\partial \\boldsymbol{o}} \\boldsymbol{h}^\\top + \\lambda \\boldsymbol{W}^{(2)}.\n",
        "$$\n",
        "\n",
        "&emsp;&emsp;沿着输出层向隐藏层继续反向传播，隐藏层变量的梯度$\\partial J/\\partial \\boldsymbol{h} \\in \\mathbb{R}^h$可以这样计算：\n",
        "$$\n",
        "\\frac{\\partial J}{\\partial \\boldsymbol{h}}\n",
        "= \\text{prod}\\left(\\frac{\\partial J}{\\partial \\boldsymbol{o}}, \\frac{\\partial \\boldsymbol{o}}{\\partial \\boldsymbol{h}}\\right)\n",
        "= {\\boldsymbol{W}^{(2)}}^\\top \\frac{\\partial J}{\\partial \\boldsymbol{o}}.\n",
        "$$\n",
        "\n",
        "&emsp;&emsp;由于激活函数$\\phi$是按元素运算的，中间变量$z$的梯度$\\partial J/\\partial \\boldsymbol{z} \\in \\mathbb{R}^h$的计算需要使用按元素乘法符号$\\odot$\n",
        "$$\n",
        "\\frac{\\partial J}{\\partial \\boldsymbol{z}}\n",
        "= \\text{prod}\\left(\\frac{\\partial J}{\\partial \\boldsymbol{h}}, \\frac{\\partial \\boldsymbol{h}}{\\partial \\boldsymbol{z}}\\right)\n",
        "= \\frac{\\partial J}{\\partial \\boldsymbol{h}} \\odot \\phi'\\left(\\boldsymbol{z}\\right).\n",
        "$$\n",
        "&emsp;&emsp;最终，我们可以得到最靠近输入层的模型参数的梯度$\\partial J/\\partial \\boldsymbol{W}^{(1)} \\in \\mathbb{R}^{h \\times d}$。根据链式法则，得到：\n",
        "$$\n",
        "\\frac{\\partial J}{\\partial \\boldsymbol{W}^{(1)}}\n",
        "= \\text{prod}\\left(\\frac{\\partial J}{\\partial \\boldsymbol{z}}, \\frac{\\partial \\boldsymbol{z}}{\\partial \\boldsymbol{W}^{(1)}}\\right) + \\text{prod}\\left(\\frac{\\partial J}{\\partial s}, \\frac{\\partial s}{\\partial \\boldsymbol{W}^{(1)}}\\right)\n",
        "= \\frac{\\partial J}{\\partial \\boldsymbol{z}} \\boldsymbol{x}^\\top + \\lambda \\boldsymbol{W}^{(1)}.\n",
        "$$\n",
        "\n",
        "###3.14.4. 训练深度学习模型\n",
        "&emsp;&emsp;在训练深度学习模型时，正向传播和反向传播之间相互依赖。下面我们仍然以本节中的样例模型分别阐述他们之间的依赖关系。\\\n",
        "&emsp;&emsp;一方面，正向传播的计算可能依赖于模型参数的当前值，而这些模型参数是指反向传播的梯度计算后通过优化算法迭代的。例如，计算正则项$s = (\\lambda/2) \\left(\\|\\boldsymbol{W}^{(1)}\\|_F^2 + \\|\\boldsymbol{W}^{(2)}\\|_F^2\\right)$\n",
        "依赖模型参数$\\boldsymbol{W}^{(1)}$和$\\boldsymbol{W}^{(2)}$的当前值，而这些当前值是优化算法最近一次根据反向传播算出梯度后迭代得到的。\\\n",
        "&emsp;&emsp;另一方面，反向传播的梯度计算可能依赖于各变量的当前值，而这些变量的当前值是通过正向传播计算得到的。举例来说，参数梯度$\\partial J/\\partial \\boldsymbol{W}^{(2)} = (\\partial J / \\partial \\boldsymbol{o}) \\boldsymbol{h}^\\top + \\lambda \\boldsymbol{W}^{(2)}$的计算需要依赖隐藏层变量的当前值$h$。这个当前值是通过从输入层到输出层的正向传播计算并存储得到的。\n",
        "\n",
        "&emsp;&emsp;因此，在模型初始化完成后，我们交替地进行正向传播和反向传播，并根据反向传播计算的梯度迭代模型参数。既然我们在反向传播中使用了正向传播中计算得到的中间变量来避免重复计算，那么，这个复用也导致正向传播结束后不能立即释放中间变量内存，。这也是训练比预测占用更多内存的一个重要原因。另外需要指出的是，这些中间变量的个数大体上与网络层数线性相关，每个变量的大小跟批量大小和输入个数也是线性相关的， 它们是导致较深神经网络使用较大批量训练时更容易超内存的主要原因。\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {
        "id": "tUkGW4UIDk9q",
        "colab_type": "text"
      },
      "source": [
        "###3.14.5. 小结\n",
        "* 正向传播沿着从输入层到输出层的顺序，依次计算并存储神经网络的中间变量。\n",
        "* 反向传播沿着输出层到输入层的顺序，依次计算并存储神经网络中间变量和参数的梯度。\n",
        "* 在训练深度学习模型时，正向传播和反向传播相互依赖。"
      ]
    },
    {
      "cell_type": "code",
      "metadata": {
        "id": "uuqYjf5puIrN",
        "colab_type": "code",
        "colab": {}
      },
      "source": [
        ""
      ],
      "execution_count": 0,
      "outputs": []
    }
  ]
}